AI Papers Daily

#Logit Lens

3 篇

Lexical Reference Frames: Interpreting LM Residual Streams in Native Semantics

词汇参考系：以原生语义解读LM残差流

🧭 LLM可解释性 · 残差流原生语义

Monash University · Chongqing University · Technical University of Munich

利用模型自身剩余层读取隐藏状态，构建词汇参考系，使残差流可读、可归因、可操控，早期退出可跳过近半层

📌 工作参考价值（4 点）

• 线上LLM推荐/搜索生成可集成LexFrame[1]做early exit或self-speculative decoding：在中间层检测confident readings，跳过约45%层，延迟降低且输出差异仅0.16 nats。
• 归因分析替代attribution patching：lexical frame的系数更忠实反映预测来源，用于电商推荐/搜索模型审计，定位影响query或item生成的关键token段。
• 用lexical basis做受控steering：在不影响其他token前提下引导预测，可应用于电商文案/搜索词生成，如注入品牌词、规避敏感词、约束推荐理由风格。
• 该方法不依赖对模型输出的拟合，直接复用前向过程，工程实现轻量，适合嵌入现有LLM推理框架作为内省工具。

LLM | 2026-10-15 | cs.CL | score 6/10

InterpretabilityResidual StreamLogit LensEarly ExitSteeringAttribution

Same Attention, Different Truths: Put Logit-Lens over Visual Attention to Detect and Mitigate LVLM Object Hallucination

同样的注意力，不同的真相：用Logit-Lens检测和缓解LVLM物体幻觉

🧭 多模态幻觉检测与缓解

University of Chinese Academy of Sciences · Institute of Automation, Chinese Academy of Science · Hong Kong University of Science and Technology

发现物体幻觉并非视觉注意力不足，而是注意力区域无法解码为目标token，提出训练免的检测-缓解框架，取得SOTA。

📌 工作参考价值（4 点）

• 在电商图片描述生成或视觉问答中，可借鉴 Logit Lens 检验高注意力区域是否真正解码为目标商品token，快速定位幻觉来源，无需额外训练。
• 根据幻觉成因分类处理：对于视觉不确定性（相似物体混淆），通过屏蔽高注意力区域（HARM）强制模型重新聚焦；对于上下文先验（强共现偏见），采用视觉证据增强解码（VEED），提高生成可靠性。
• 训练免的 Detect-Mitigate 框架可以直接嵌入现有 LVLM 推理流程，低成本提升生成质量，对 Agent 中视觉模块的可信输出有实用价值。
• 注意力图可视化结合 token 解码一致性检查，可以作为一种离线诊断工具，用于发现商品描述生成中的常见幻觉模式，进而优化数据或 prompt。

Multimodal | 2026-08-07 | cs.CV | score 7/10

LVLMObject HallucinationLogit LensVisual AttentionDetect-Mitigate

What Intermediate Layers Know: Detecting Jailbreaks from Entropy Dynamics

中间层知道什么：从熵动态检测越狱攻击

🧭 LLM安全 · 中间层熵动态

LMU Munich · University of Pisa · CNR-ILC · Oxford Brookes University · Munich Center for Machine Learning

利用LLM中间层token预测熵的单调趋势特征，无需训练即可跨模型检测越狱攻击

📌 工作参考价值（4 点）

• 在电商推荐Agent或对话系统中，可实时监测恶意prompt：提取用户输入token级预测熵的单调秩趋势得分，无需微调模型，适合低延迟在线检测。
• 直接使用中间层logits而非最终输出层计算熵，可捕捉更明显的越狱信号，架构一致性允许跨不同LLM（如Llama、Qwen系列）复用。
• 特征工程聚焦于熵值随token位置的演化轨迹（如单调性），而非简单的均值/方差，这种动态特征对于对抗性输入的微小扰动更鲁棒。
• 该检测方法完全基于冻结模型，不依赖额外安全分类器训练，可快速嵌入已有Agent pipeline，作为安全兜底层。

LLM | 2026-06-22 | HF Daily | score 6/10

Jailbreak DetectionEntropy DynamicsIntermediate LayerLogit LensLLM SafetyAdversarial Robustness